Khi Chiến tranh Vệ quốc Vĩ đại bùng nổ, Parsegov đang giữ chức vụ chỉ huy trưởng pháo binh của Phương diện quân Tây Nam (tức là ở cùng một vị trí). Ông đã tham gia vào Chiến dịch Phòng thủ Kyiv. Che dấu sự rút lui của quân đội Liên Xô, các binh sĩ pháo binh dưới sự chỉ huy tài giỏi của Parsegov đã gây ra thiệt hại đáng kể về thiết bị và nhân lực của đối phương. Vì điều này, cuộc tiến công của kẻ thù vào Kiev đã bị trì hoãn hơn hai tháng.

Vào mùa thu năm 1941, Parsegov tham gia Chiến dịch Phòng thủ Donbas. Trong cuộc phản công gần Mátxcơva, ông đã lên kế hoạch khéo léo và chỉ đạo rõ ràng cho các lực lượng pháo binh của cánh phải Phương diện quân Tây Nam trong Chiến dịch tấn công Yelet. Từ ngày 24 tháng 12 năm 1941, Parsegov là chỉ huy pháo binh của hướng Tây Nam. Ông đã tạo nên sự khác biệt trong Chiến dịch tấn công Barvenkovo ​​– Lozovaya. Từ ngày 5 tháng 3 năm 1942[5] ông là tư lệnh Tập đoàn quân 40 của Phương diện quân Tây Nam, chuyển giao vào tháng 5 năm 1942 cho Phương diện quân Bryansk.

Theo tham mưu trưởng của Mặt trận Bryansk, Mikhail Kazakov:

Tư lệnh Tập đoàn quân 40 Mikhail Parsegov là một người sắc sảo; đôi khi ông không có đủ kiên nhẫn để phân tích chi tiết tình hình. Tôi vẫn nhớ một trong những cuộc nói chuyện của anh ấy với chỉ huy mặt trận. - Anh đánh giá thế nào về khả năng phòng ngự của mình? - Philip Golikov hỏi. Sẽ không trượt ngay cả một con chuột- vị tư lệnh tự tin trả lời.

— Mikhail Kazakov. Above the Map of Past Battles[6]

Tập đoàn quân 40 tham gia Chiến dịch Phòng thủ Voronezh – Voroshilovgrad; ngày 30 tháng 6 năm 1942, quân địch, tập trung lực lượng lớn chống lại cánh phải của quân đội, xuyên thủng hàng phòng ngự của quân đội Liên Xô tại các thành phố Livny và Volchansk, dẫn đến việc bao vây nhiều bộ phận của Tập đoàn quân 40 và tiến nhanh về phía Voronezh. Vì kết cục này, Parsegov, người đang trong tình trạng căng thẳng tâm lý quá mức nghiêm trọng, đã bị cách chức vào ngày 3 tháng 7 năm 1942.[5]

Cho đến ngày 26 tháng 7 năm 1942, Parsegov giữ chức vụ chỉ huy pháo binh dự bị, và sau đó được bổ nhiệm làm chỉ huy trưởng pháo binh của Phương diện quân Viễn Đông. Trên cương vị này, Parsegov đã có nhiều nỗ lực để tăng cường hiệu quả chiến đấu của các đơn vị pháo binh của Phương diện quân Viễn Đông, áp dụng vào thực tế tất cả những kiến ​​thức và kinh nghiệm của mình trong một số cuộc chiến.

Trong Chiến tranh Xô-Nhật, Parsegov là chỉ huy trưởng pháo binh của Phương diện quân Viễn Đông số 2. Các đội quân do ông chỉ huy cùng với các đội quân từ các mặt trận khác đã phá tan các công sự kiên cố của quân Nhật và đánh bại Đạo quân Quan Đông. Ông khéo léo chỉ đạo pháo binh của mặt trận dồn ép sông Amur và sông Ussuri. Quân của ông đã tham gia giải phóng Cáp Nhĩ Tân và các thành phố, thị trấn khác của Trung Quốc, cũng như nam Sakhalin và quần đảo Kuril.